iT邦幫忙

text generation inference相關文章
共有 1 則文章
鐵人賽 AI & Data DAY 18
LLM 學習筆記 系列 第 18

技術 LLM Note Day 18 - Hugging Face Text Generation Inference

簡介 Text Generation Inference 簡稱 TGI,是由 Hugging Face 開發的 LLM Inference 框架。其中整合了相當...